d: Ta có: \(\text{Δ}=\left(m+1\right)^2-4\cdot2\cdot\left(m+3\right)\)

\(=m^2+2m+1-8m-24\)

\(=m^2-6m-23\)

\(=m^2-6m+9-32\)

\(=\left(m-3\right)^2-32\)

Để phương trình có hai nghiệm phân biệt thì \(\left(m-3\right)^2>32\)

\(\Leftrightarrow\left[{}\begin{matrix}m-3>4\sqrt{2}\\m-3< -4\sqrt{2}\end{matrix}\right.\Leftrightarrow\left[{}\begin{matrix}m>4\sqrt{2}+3\\m< -4\sqrt{2}+3\end{matrix}\right.\)

Áp dụng hệ thức Vi-et, ta được:

\(\left\{{}\begin{matrix}x_1+x_2=\dfrac{m+1}{2}\\x_1x_2=\dfrac{m+3}{2}\end{matrix}\right.\)

Ta có: \(\left\{{}\begin{matrix}x_1+x_2=\dfrac{m+1}{2}\\x_1-x_2=1\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}2x_1=\dfrac{m+3}{2}\\x_2=x_1-1\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}x_1=\dfrac{m+3}{4}\\x_2=\dfrac{m+3}{4}-\dfrac{4}{4}=\dfrac{m-1}{4}\end{matrix}\right.\)

Ta có: \(x_1x_2=\dfrac{m+3}{2}\)

\(\Leftrightarrow\dfrac{\left(m+3\right)\left(m-1\right)}{16}=\dfrac{m+3}{2}\)

\(\Leftrightarrow\left(m+3\right)\left(m-1\right)=8\left(m+3\right)\)

\(\Leftrightarrow\left(m+3\right)\left(m-9\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}m=-3\\m=9\end{matrix}\right.\)

b) Thay x=2 vào pt, ta được:

\(4\left(m^2-1\right)-4m+m^2+m+4=0\)

\(\Leftrightarrow4m^2-4-4m+m^2+m+4=0\)

\(\Leftrightarrow5m^2-3m=0\)

\(\Leftrightarrow m\left(5m-3\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}m=0\\m=\dfrac{3}{5}\end{matrix}\right.\)

Áp dụng hệ thức Vi-et, ta được:

\(x_1+x_2=\dfrac{2m}{m^2-1}\)

\(\Leftrightarrow\left[{}\begin{matrix}x_2+2=0\\x_2+2=\dfrac{6}{5}:\left(\dfrac{36}{25}-1\right)=\dfrac{30}{11}\end{matrix}\right.\Leftrightarrow\left[{}\begin{matrix}x_2=-2\\x_2=\dfrac{8}{11}\end{matrix}\right.\)

\(x^3-x^2+2mx-2m=0\)

\(\Leftrightarrow x^2\left(x-1\right)+2m\left(x-1\right)=0\)

\(\Leftrightarrow\left(x-1\right)\left(x^2+2m\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x=1\\x^2=-2m\end{matrix}\right.\)

Để pt có 3 nghiệm \(\Rightarrow-2m>0\Rightarrow m< 0\)

a. Do vai trò 3 nghiệm như nhau, ko mất tính tổng quát giả sử \(x_1=1\) và \(x_2;x_3\) là nghiệm của \(x^2+2m=0\) 

Để pt có 3 nghiệm pb \(\Rightarrow\left\{{}\begin{matrix}-2m>0\\-2m\ne1\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}m< 0\\m\ne-\dfrac{1}{2}\end{matrix}\right.\)

Khi đó: \(x_2+x_3=0\Rightarrow x_1+x_2+x_3=1\ne10\) với mọi m

\(\Rightarrow\) Không tồn tại m thỏa mãn yêu cầu

b.

Giả sử pt có 3 nghiệm, khi đó \(\left[{}\begin{matrix}x_2=-\sqrt{-2m}< 0< 1\\x_3=\sqrt{-2m}\end{matrix}\right.\)

\(\Rightarrow\) Luôn có 1 nghiệm của pt âm \(\Rightarrow\) không tồn tại m thỏa mãn

Em coi lại đề bài

b) phương trình có 2 nghiệm  \(\Leftrightarrow\Delta'\ge0\)

\(\Leftrightarrow\left(m-1\right)^2-\left(m-1\right)\left(m+3\right)\ge0\)

\(\Leftrightarrow m^2-2m+1-m^2-3m+m+3\ge0\)

\(\Leftrightarrow-4m+4\ge0\)

\(\Leftrightarrow m\le1\)

Ta có: \(x_1^2+x_1x_2+x_2^2=1\)

\(\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2=1\)

Theo viet: \(\left\{{}\begin{matrix}x_1+x_2=-\dfrac{b}{a}=2\left(m-1\right)\\x_1x_2=\dfrac{c}{a}=m+3\end{matrix}\right.\)

\(\Leftrightarrow\left[-2\left(m-1\right)^2\right]-2\left(m+3\right)=1\)

\(\Leftrightarrow4m^2-8m+4-2m-6-1=0\)

\(\Leftrightarrow4m^2-10m-3=0\)

\(\Leftrightarrow\left[{}\begin{matrix}m_1=\dfrac{5+\sqrt{37}}{4}\left(ktm\right)\\m_2=\dfrac{5-\sqrt{37}}{4}\left(tm\right)\end{matrix}\right.\Rightarrow m=\dfrac{5-\sqrt{37}}{4}\)

Câu c:

a.

\(\Leftrightarrow\left\{{}\begin{matrix}x=1\\x^2-2mx+m^2-m+3=0\left(1\right)\end{matrix}\right.\)

Pt có 3 nghiệm pb khi và chỉ khi (1) có 2 nghiệm pb khác 1

\(\Leftrightarrow\left\{{}\begin{matrix}1-2m+m^2-m+3\ne0\\\Delta'=m^2-\left(m^2-m+3\right)>0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m^2-3m+4\ne0\left(\text{luôn đúng}\right)\\m>3\end{matrix}\right.\) 

Vậy \(m>3\)

b.

Phương trình có 3 nghiệm pb khi và chỉ khi: \(mx^2+3x+m=0\) có 2 nghiệm pb khác 3

\(\Leftrightarrow\left\{{}\begin{matrix}m\ne0\\9m+9+m\ne0\\\Delta=9-4m^2>0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}m\ne0\\m\ne-\dfrac{9}{10}\\-\dfrac{3}{2}< m< \dfrac{3}{2}\end{matrix}\right.\)

Bài toán bạn định hỏi, theo tác giả nói, có đúng 3 nghiệm phân biệt. 
Để phương trình \(x^2-2mx-4\left(m^2+1\right)=0\) luôn có 2 nghiệm phân biệt (vì \(\Delta^'=m^2+4\left(m^2+1\right)=5m^2+4>0.\))

Xét phương trình thứ hai  \(x^2-4x-2m\left(m^2+1\right)=0\). Nếu phương trình này vô nghiệm thì pt đã cho có tối đa 2 nghiệm, mâu thuẫn. Vậy phương trình thứ 2 có nghiệm kép hoặc có 2 nghiệm phân biệt.

Xét trường hợp phương trình thứ hai có nghiệm kép, tức 
\(4+2m^3+2m=0\to m^3+m+2=0\to\left(m+1\right)\left(m^2-m+2\right)=0\)
Do đó \(m=-1.\)  Thử lại, không thoả mãn vì phương trình đầu có nghiệm x=2.

Nếu phương trình thứ hai có hai nghiệm phân biệt thì hai phương trình phải có nghiệm chung là \(x_0\), do đó 
\(x^2_0-4x_0-2m\left(m^2+1\right)=0\) và \(x_0^2-2mx_0-4\left(m^2+1\right)=0\). Trừ hai phương trình ta được \(\left(2m-4\right)x_0=\left(2m-4\right)\left(m^2+1\right)\). Do đó \(m=2\) hoặc \(x_0=m^2+1.\) Khi \(m=2\) thì hai phương trình trùng nhau nên phương trình đã cho có đúng 2 nghiệm phân biệt, loại. Giả sử \(x_0=m^2+1.\)Khi đó \(\left(m^2+1\right)^2-4\left(m^2+1\right)-2m\left(m^2+1\right)=0\to m^2+1-4-2m=0\)
\(m^2-2m-3=0\to m=-1,3.\)

Thử lại ta thấy \(m=-1,3\) đều thoả mãn.